Meta✴ ведет переговоры о приобретении южнокорейского стартапа FuriosaAI, разработчика ИИ-ускорителей, базирующегося в Сеуле (Южная Корея) и Санта-Кларе (США), что позволит ей выпускать собственные кастомные чипы на фоне нехватки ускорителей NVIDIA, сообщил Forbes со ссылкой на информированные источники.

По словам одного из источников, сделка может быть заключена уже в этом месяце. Другой источник утверждает, что ещё несколько компаний ведут переговоры о приобретении FuriosaAI. Компанию основал в 2017 году Джун Пайк (June Paik), ранее работавший в Samsung Electronics и AMD и занимающий сейчас пост гендиректора.

FuriosaAI привлекла в общей сложности около ₩170 млн (около $115 млн) венчурного финансирования. Среди первых инвесторов были южнокорейский интернет-гигант Naver и базирующаяся в Сеуле DSC Investment. В последнем раунде финансирования, прошедшем на прошлой неделе, FuriosaAI получила ₩2 млрд (около $1,4 млн) от южнокорейской CRIT Ventures.

В августе прошлого года FuriosaAI представила энергоэффективный ИИ-ускоритель RNGD, который был разработан в партнёрстве с тайваньским производителем микросхем Global Unichip Corp. По словам компании, RNGD является идеальным выбором для крупномасштабного развёртывания продвинутых моделей генеративного ИИ, таких как Llama 2 и Llama 3, поскольку не уступает передовым ускорителям по производительности, отличаясь при этом низким TDP в пределах 150 Вт.

Источник изображения: FuriosaAI

RNGD предназначен для инференса и оснащён HBM3-памятью SK hynix. FuriosaAI сообщила, что RNGD показывает в три раза большую производительность в расчёте на 1 Вт, чем ускорители NVIDIA H100 при запуске продвинутых больших языковых моделей (LLM). Как ожидается, массовое производство RNGD начнётся во II половине 2025 года.

При этом сама Meta✴ разработала уже два поколения собственных ИИ-ускорителей для инференса. И если от MTIA v1 в итоге было решено отказаться в пользу в первую очередь продуктов NVIDIA, то MTIA v2, судя по всему, активно внедряются, но их всё ещё не хватает для удовлетворения потребностей компании.

Источник изображения: Meta✴

По данным Forbes, заинтересованность в RNGD также продемонстрировали исследовательская ИИ-лаборатория LG и Saudi Aramco. В сентябре последняя подписала меморандум о взаимопонимании с FuriosaAI и Cerebras Systems, ещё одним производителем ИИ-ускорителей, для «изучения сотрудничества в области суперкомпьютеров и ИИ».

Переговоры проходят спустя несколько месяцев после того, как ещё один южнокорейский стартап в сфере ИИ Rebellions, завершил слияние с поддерживаемой SK hynix компанией Sapeon. Объединённая компания, которая осуществляет деятельность под брендом Rebellions, является первым в Южной Корее единорогом в области производства чипов ИИ.

Компания OpenAI объявила о разработке ИИ-продуктов для Южной Кореи при участии местного IT-бизнеса Kakao. Крупный азиатский партнёр поможет американскому бизнесу на местном рынке. Кроме того, отдельно ведутся переговоры о сотрудничестве с Samsung Electronics, SoftBank и подконтрольной ей Arm Holdings над развитием ИИ-мегапроекта Stargate, сообщает Reuters. В турне по Азии глава OpenAI Сэм Альтман (Sam Altman) уже объявил о партнёрстве с SoftBank в сфере ИИ-сервисов в Японии и намерен посетить Индию, где намерен встретиться с премьер-министром Нарендрой Моди (Narendra Modi).

Как и SoftBank, Kakao объявила об использовании технологий OpenAI в своих продуктов — в частности, компания владеет популярным в стране мессенджером KakaoTalk, на который приходится 97 % внутреннего рынка. Кроме того, компания наращивает присутствие в сфере электронной коммерции, игр и платежей. ИИ должен стать новым двигателем роста. Эксперты сообщают, что в этом она отстаёт от местного конкурента Naver, которая сотрудничает с Samsung.

Источник изображения: Shawn/unsplash.com

По словам Альтмана, его компания особенно заинтересована в ИИ-сервисах и сервисах обмена сообщениями. Также он добавил, что энергетические, полупроводниковые и интернет-компании Южной Кореи сделали страну важным рынком для OpenAI, а спрос на ИИ-продукты быстро растёт. По словам бизнесмена, многие корейские компании внесут важный вклад в проект Stargate. Впрочем, Альтман отказался вдаваться в подробности переговоров с азиатскими партнёрами.

При этом сообщалось, что обсуждается и возможное сотрудничество с Samsung, хотя пока нет данных, присоединится ли компания к проекту Stargate. Также Альтман встретился с представителями SK Group, которая намерена развивать ИИ ЦОД. Подразделение SK Hynix наряду с Samsung производит передовые чипы памяти, применяемые в ИИ-ускорителях. Компания уже заявила, что обсуждали комплексные планы сотрудничества в области ИИ-ускорителей и экосистемы искусственного интеллекта в целом. Ранее сообщалось, что OpenAI при участии Broadcom и TSMC разрабатывает собственные ускорители.

На вопрос о том, не намерена ли OpenAI присоединиться к инвестициям в южнокорейский ИИ-центр, Альтман заявил, что такой вариант «активно рассматрвиается» — ещё в прошлом месяце правительство Южной Кореи заявило, что намерено построить национальный центр ИИ-вычислений с государственными и частными инвестициями на сумму до ₩2 трлн ($1,4 млрд).

Южнокорейская DeepGreenX заключила рамочное соглашение с Sente Ventures для создания новой стратегической инвестиционной программы сроком на пять лет на сумму $25 млрд. Инвестициями смогут воспользоваться компании, предлагающие решения в области производства «чистой» энергии, виртуальных энергосетей, энергохранилищ, микрореакторной энергетики и инфраструктуры ЦОД, сообщает Datacenter Dynamics.

В рамках нового партнёрства создано совместное предприятие DXG-Hues. DXG-Hues сформирует два фонда по $5 млрд каждый для проектов в сфере «зелёной» энергетики, ИИ и вычислительных мощностей в США, Европе и странах Юго-Восточной Азии.

Планируется использовать программу привлечения клиентов, ориентированных на устойчивое развитие, и внедрение передовых решений для платформы DeepGreenX, предназначенной для монетизации данных на основе ИИ-алгоритмов. В DeepGreenX рассчитывают, что программа откроет новые возможности для компаний и проектов, связанных с «зелёной» энергетикой.

Источник изображения: DeepGreenX

Сеульская DeepGreenX, основанная в 2020 году, действует в 20 странах, занимаясь торговлей углеродными кредитами, сертификацией «зелёной» энергии и управлением активами для секторов ЦОД и технологий в целом. Sente Ventures — венчурный инвестор из Чикаго, специализирующийся на снижении инвестиционных рисков в низкоуглеродные технологии. Компания действует в 24 странах.

Азиатский банк развития и инвестиций (Asia Development and Investment Bank, ADIB) объявил в ноябре о стратегических вложениях в DeepGreenX. В частности, компания получит $140 млрд на инжиниринг, закупки, строительство и управление данными. При этом банк получит 36 % акций компании.

Впрочем, слишком много «зелёной» энергии — тоже не всегда хорошо: в прошлом году Нидерланды приняли новые нормы работы энергосетей, страдающих от эпизодических перегрузок в результате многочисленных подключений частных электростанций на возобновляемой энергии.

Сеульский стартап FuriosaAI, основанный в 2017 году, анонсировал в августе 2024 года ИИ-ускорители RNGD для гиперскейлеров и других корпоративных клиентов. Недавно компания начала тестирование новинки и рассылку образцов некоторым потенциальным клиентам, включая LG AI Research и Aramco, сообщает DigiTimes.

RNGD позиционируется как решение, способное бросить вызов продуктам NVIDIA. По словам создателей, новинка на 40 % энергоэффективнее NVIDIA H100 при сопоставимых вычислительных характеристиках. Представитель компании недавно сообщил журналистам, что изначально компания сконцентрировалась исключительно на разработке, отложив производство до получения значительных инвестиций.

Чип первого поколения был разработан ещё в 2021 году. Несмотря на скромный бюджет в $6 млн, компании удалось добиться результатов, достаточных для того, чтобы в раунде финансирования серии B компания получила $60 млн, что и позволило разработать модель RNGD.

Источник изображения: FuriosaAI

RNGD создан совместно с Global Unichip Corporation (GUC) и TSMC и рассчитан на работу с большими языковыми моделями (LLM). Ускоритель использует память HBM3 и выполнен по 5-нм техпроцессу. Компания разрабатывала его с прицелом на инференс моделей уровня GPT-3 и новее. Соблюдению баланса производительности и энергопотребления способствовала проприетарная архитектура Tensor Construction Processor.

В августе 2024 года LG AI Research начала интегрировать RNGD в свою ИИ-инфраструктуру, чтобы снизить зависимость от NVIDIA и способствовать развитию южнокорейского полупроводникового бизнеса. При этом FuriosaAI прилагает все усилия для программной поддержки своего продукта. В стартапе уверены, что рынок ИИ достаточно велик, чтобы места хватило и игрокам помельче NVIDIA. В компании сравнивают амбиции FuriosaAI с усилиями создателей первых электромобилей, которые в итоге произвели революцию во всей индустрии.

Стартап укрепляет международные связи для экспансии в США, Азии и других регионах. В сентябре был подписан меморандум о взаимопонимании с арабской Aramco. Дополнительно ведутся переговоры с потенциальными партнёрами в Японии и Индии. Первые коммерческие поставки RNGD ожидаются в I квартале 2025 года. Подчёркивается и важность Тайваня для экосистемы FuriosaAI — в качестве хаба для передового производства остров играет ключевую роль. Потенциально рассматривается открытие офиса на Тайване для укрепления сотрудничества.

Компания Naver, управляющая ведущим интернет-порталом и самым популярным поисковиком в Южной Корее, сообщила о разработке собственного дистрибутива Linux. Программная платформа, получившая название Navix, основана на ядре Linux 5.14.

Как отмечает The Register, при создании Navix использовались ресурсы Open Enterprise Linux Association (OpenELA). Эта торговая ассоциация была сформирована в августе 2023 года с целью разработки дистрибутивов, совместимых с Red Hat Enterprise Linux (RHEL). В состав Navix входит стандартный набор пакетов. По какой лицензии планируется распространять ОС, не уточняется. Страница проекта на GitHub в настоящее время включает только систему отслеживания ошибок.

Naver обещает оказывать пользователям Navix бесплатную поддержку в течение десяти лет. При этом на протяжении пять лет будут предлагаться полноценные обновления всех компонентов, а ещё на протяжении пяти лет компания намерена распространять исправления, связанные с безопасностью, а также критические апдейты. Предполагается, что новый дистрибутив заинтересует разработчиков, корпоративных клиентов и операторов HPC-площадок. Для Navix заявлена совместимость с RHEL.

Источник изображения: Naver

Сам южнокорейский интернет-гигант Naver также планирует широко применять Navix в своей IT-инфраструктуре. Кроме того, ОС станет доступна в качестве опции для виртуальных машин в публичном облаке Naver. Отмечается, что компания управляет как минимум двумя собственными дата-центрами. В частности, один из этих ЦОД был введен в эксплуатацию в 2023 году: он имеет мощность 270 МВт.

Южнокорейская государственная коммунальная компания Korea Southeast Power и занимающаяся проектированием, закупками и строительством Samsung C&T подписали меморандум о взаимопонимании с региональными властями провинции Чунгнам (Чуннам) о строительстве «энергетического хаба» Dangjin Green Energy Hub. Фактически речь идёт об электростанции на водородных топливных элементах, сообщает Datacenter Dynamics.

Это первая в Южной Корее электростанция на 900 МВт, генерирующая энергию с помощью водородных топливных ячеек. Совместно с энергохранилищем на 300 МВт (ёмкость не уточняется) станция будет обеспечивать работу крупномасштабного дата-центра. По предварительным оценкам, реализация проекта обойдётся в $1,7 млрд, из которых только на строительство самого ЦОД будет потрачено $860 млн. Коммерческая эксплуатация должна начаться к 2032 году.

В рамках проекта будет генерироваться «зелёный» водород, получаемый от местных поставщиков, использующих для его производства экобезопасные технологии. Впоследствии предполагается питание от водорода не только ЦОД, но и региональных промышленных комплексов. Аккумуляторное энергохранилище (BESS), состоящее из трёх 100-МВт модулей, будет пополняться за счёт солнечной энергии и использоваться для обеспечения стабильного снабжения дата-центра и других объектов.

Источник изображения: rawkkim/unsplash.com

Проектов на водороде довольно много. В апреле сообщалось о том, что водородные элементы запитают суперкомпьютерный центр Texas Advanced Computing Center. В сентябре сообщалось, что ECL построит гигантский «зелёный» водородный ЦОД TerraSite-TX1. Тогда же появилась информация, что Microsoft при поддержке ESB на время запитает свой дублинский ЦОД от водородных топливных ячеек GeoPura.

Исследователи из Южной Кореи разработали, как утверждается, первый в мире полупроводниковый ИИ-чип, который обладает высоким быстродействием при минимальном энергопотреблении. Изделие, предназначенное для обработки больших языковых моделей (LLM), основано на принципах, имитирующих структуру и функции человеческого мозга.

В работе приняли участие специалисты Корейского института передовых технологий (KAIST). Утверждается, что при обработке модели GPT-2 новинка по сравнению с ускорителем NVIDIA A100 затрачивает в 625 раз меньше энергии и занимает в 41 раз меньше физического пространства. Таким образом, южнокорейский ИИ-чип теоретически может применяться даже в смартфонах. Чип производится по 28-нм процессу Samsung Electronics.

Источник изображений: KAIST

Отмечается, что обычно для обработки модели GPT-2 требуются ускорители на базе GPU, потребляющие около 250 Вт энергии. Разработанное изделие требует для этого всего от 40 мВт, а его размеры составляют 4,5 × 4,5 мм. Причём на выполнение операций затрачивается только 0,4 с. Чип наделён 552 Кбайт памяти SRAM. Напряжение питания варьируется от 0,7 до 1,1 В. Тактовая частота варьируется в диапазоне 50–200 МГц.

Технология, получившая название C-DNN (Complementary Deep Neural Network) позволяет использовать свёрточные нейронные сети (CNN) и импульсные нейронные сети (SNN), имитирующие процессы, которые задействованы в человеческом мозге при обработке информации. Иными словами, обучение происходит через несколько слоёв нейронных сетей, а потребление энергии варьируется в зависимости от когнитивной нагрузки. Технология минимизирует энергозатраты благодаря использованию DNN для больших входных значений и SNN для меньших. Правда, чип поддерживает максимум INT16.

Утверждается, что C-DNN является первым ускорителем, который может поддерживать распределение рабочей нагрузки CNN/SNN, используя компромисс между производительностью и энергопотреблением. Изделие обеспечивает энергоэффективность на уровне 85,8 TOPS/Вт и 79,9 TOPS/Вт для инференса с наборами данных CIFAR-10 и CIFAR-100 соответственно (VGG-16). Энергоэффективность в случае ResNet-50 составляет 24,5 TOPS/Вт. При обучении чип C-DNN демонстрирует энергоэффективность в 84,5 TOPS/Вт и 16,7 TOPS/Вт для CIFAR-10 и ImageNet соответственно. Результаты получены при напряжении 0,7 В и частоте 50 МГц.

«Нейроморфные вычисления, имитирующие функции мозга, — это технология, которую такие крупные компании, как IBM и Intel, пока по-настоящему не реализовали. Мы гордимся тем, что первыми в мире начали использовать LLM со сверхэффективным нейроморфным ускорением», — говорит руководитель проекта профессора Ю Хой-Джун (Yu Hoi-jun).

ИИ-стартап Sapeon, поддерживаемый южнокорейским телекоммуникационным гигантом SK Group, анонсировал чип X330, предназначенный для инференса и обслуживания больших языковых моделей (LLM). Изделие ляжет в основу специализированных ускорителей для дата-центров.

Sapeon заявляет, что новый нейропроцессор (NPU) обеспечивает примерно вдвое более высокую производительность и в 1,3 раза лучшую энергоэффективность, чем продукты конкурентов, выпущенные в этом году. По сравнению с предыдущим решением самой компании — Sapeon X220 — достигается увеличение быстродействия в четыре раза и повышение энергоэффективности в два раза.

Изображения: Sapeon

Новинка будет изготавливаться на TSMC по 7-нм технологии. Массовое производство запланировано на I полугодие 2024 года. На базе чипа будут предлагаться два ускорителя — X330 Compact Card и X330 Prime Card. Оба имеют однослотовое исполнение и оснащаются системой пассивного охлаждения. Для подключения применяется интерфейс PCIe 5.0 х16. Карты могут осуществлять вычисления INT8, FP8 и FP16.

Модель X330 Compact Card уменьшенной длины несёт на борту 16 Гбайт памяти GDDR6 с пропускной способностью до 256 Гбайт/с. Заявленная производительность на операциях FP8 и FP16 достигает соответственно 367 и 184 Тфлопс. Энергопотребление варьируется в диапазоне от 75 до 120 Вт. Полноразмерная модификация X330 Prime Card получила 32 Гбайт памяти GDDR6 с пропускной способностью до 512 Гбайт/с. Заявленное быстродействие FP8 и FP16 составляет до 734 и 368 Тфлопс. Энергопотребление — 250 Вт.

Группа SK в последнее время активно вкладывается в развитие ИИ, инвестируя напрямую или через дочерние структуры как в софт, так и в железо. С ней, в частности, связан ещё один южнокорейский разработчик ИИ-чипов Rebellions, также поддерживаемый правительством страны, которое намерено к 2030 году довести долю отечественных ИИ-чипов в местных дата-центрах до 80 %. Делается это для того, чтобы снизить зависимость от иностранных решений и избежать дефицита. Сама же Sapeon готовит ещё минимум два поколения своих чипов.

Исполнительный содиректор южнокорейской интернет-компании Kakao Намкун Вон (Namkoong Whon) принял решение подать в отставку после массового сбоя в работе сервисов, спровоцированного пожаром в кампусе ЦОД SK C&C Data Center неподалёку от Сеула, принадлежащем SK Group. Возникшие проблемы вызвали недовольство как со стороны многочисленных пользователей, так и со стороны представителей бизнеса и власти.

Пожар начался 15 октября 2022 года с возгорания в аккумуляторной в одном из зданий ЦОД. В результате была нарушена работа мессенджера KakaoTalk, аудитория которого составляет 43–47 млн пользователей в Южной Корее (при населении всей страны в почти 52 млн человек). Кроме того, возникли сбои в работе платёжной системы KakaoPay, почтовой службы, такси и других сервисов компании. Не был затронут только сервис Kakao Bank, который размещался в другом дата-центре. По состоянию на 17 октября работоспособность большинства функций KakaoTalk была восстановлена, однако доступность ряда служб всё же оставалась ограниченной.

Источник изображения: Yonhap

Инцидентом лично заинтересовался президент страны, а стоимость акций Kakao при этом рухнула на 9,5 % — до минимального значения с мая 2020 года. Нарушение работы KakaoTalk негативно сказалось на работе сотен предприятий малого бизнеса, использующих названный мессенджер. Kakao уже сообщила о намерении выплатить компенсации и выяснить причины медленного восстановления работы своих служб. Кроме того, Kakao намерена вложить $325 млн в открытие в 2023 году собственного ЦОД, а в 2024-м будет запущен второй дата-центр.

Любопытно, что в том же кампусе находился и дата-центр Naver, ещё одного южнокорейского IT-гиганта, на работу которого инцидент оказал намного меньшее влияние. Основная претензия к Kakao заключается в том, что у компании не были разработаны планы поведения в экстренных ситуациях. В частности, компания оказалась не готова к тому, что ЦОД будет быстро обесточен после начала пожара. При этом, вероятно, это самый крупный инцидент в ЦОД в мире, поскольку речь идёт об остановке сразу 32 тыс. серверов.

Нужно отметить, что в течение последнего времени пожары охватили сразу несколько крупных ЦОД. В частности, в марте прошлого года пожар уничтожил дата-центр французской компании OVHcloud в Страсбурге. В результате этого ЧП оказались недоступны в общей сложности 3,6 млн веб-сайтов, в том числе ресурсы ряда правительственных организаций, банков, интернет-магазинов и пр. А пожар, случившийся в ЦОД иранской Telecommunication Infrastructure Company (TIC), практически оставил без доступа в интернет всю страну.

Южная Корея намерена добиться большей независимости в сфере разработки и производства чипов для серверов и суперкомпьютеров, в первую очередь для нужд внутри страны. По сообщению Министерства науки и ИКТ Южной Кореи, пять гиперскейлеров подписали меморандум о взаимопонимании с пятью производителями микросхем.

Меморандум предполагает расширение использования отечественных технологий, в частности, ИИ-ускорителей в центрах обработки данных на территории страны. Производители и разработчики чипов — SK Group, Rebellions, FuriosaAI и Исследовательский институт электроники и телекоммуникаций — также согласились создать для этого новый технологический центр в Кванджу на юго-западе страны.

Отечественные чипы получат компании Naver Cloud, Douzone Bizon, Kakao Enterprise, NHN и KT. Все они являются крупными игроками на местном рынке и, каждая в своей области, довольно успешно конкурируют с зарубежными IT-гигантами. Это во многом напоминает ситуацию в Китае и Японии, которые также имеют сильных локальных игроков и вкладываются в разработку собственной микроэлектроники, чтобы быть менее зависимыми от США, как минимум, в области суперкомпьютинга.

Несколько недель назад правительство объявило о пакете поддержки в размере 510 трлн вон ($451 млрд) для увеличения производства микросхем в стране, что принесёт пользу не только Samsung и SK Hynix, но и небольшим компаниям. Также ранее сообщалось, что Южная Корея намерена к 2030 году построить суперкомпьютер экзафлопсного класса на базе преимущественно «домашних» компонентов.